Causal Forcing++: Scalable Few-Step Autoregressive Diffusion Distillation for Real-Time Interactive Video Generation
Causal Forcing++:可扩展的少步自回归扩散蒸馏用于实时交互视频生成
🧭 视频生成 · 扩散蒸馏加速
Tsinghua University · ShengShu · Renmin University of China
通过因果一致性蒸馏高效初始化少步自回归学生模型,在帧级2步采样下性能超越4步块级SOTA,延迟减半
📌 工作参考价值(4 点)
- 自回归生成初始化策略:在生成式推荐(如序列化行为/内容生成)中,可将因果一致性蒸馏思想用于AR组件的初始化,用在线教师单步指导替代昂贵轨迹预计算,降低训练成本。
- 少步采样训练技巧:针对1-2步极端蒸馏场景,所提因果关系对齐损失可直接迁移到推荐流水线的扩散模型加速,如商品序列生成、用户行为预测。
- 分阶段扩展范式:先因果初始化再上下文扩展的流程,可复用于多轮对话Agent或多模态交互系统,平衡训练效率与长程一致性。
- 延迟与质量权衡:帧级细粒度控制首次响应延迟的实践,对电商直播、实时推荐等需要流式交互的场景有参考价值。